Địa bàn xã Ngọc Đào hiện nay trước đây vốn là hai xã Phù Ngọc và Đào Ngạn thuộc huyện Hà Quảng.

Ngày 9 tháng 9 năm 2019, sáp nhập một số xóm thuộc hai xã Phù Ngọc và Đào Ngạn.[3]

Trước khi sáp nhập, xã Đào Ngạn có diện tích 17,25 km², dân số là 1.986 người, mật độ dân số đạt 115 người/km², có 5 xóm: Bản Hà, Đào Bắc, Đào Nam, Kẻ Hiệt, Kéo Chang. Xã Phù Ngọc có diện tích 22,43 km², dân số là 3.129 người, mật độ dân số đạt 140 người/km², có 8 xóm: Bản Bó, Cốc Chủ, Bản Chá, Dộc Kít, Lũng Nọi, Nà Giảo, Nà Rặc, Nà Giàng.

Ngày 10 tháng 1 năm 2020, Ủy ban Thường vụ Quốc hội ban hành Nghị quyết số 864/NQ-UBTVQH14 về việc sắp xếp các đơn vị hành chính cấp huyện, cấp xã thuộc tỉnh Cao Bằng (nghị quyết có hiệu lực từ ngày 1 tháng 2 năm 2020)[1]. Theo đó, sáp nhập toàn bộ diện tích và dân số của hai xã Đào Ngạn và Phù Ngọc thành xã Ngọc Đào.